TEV：用稠密进度奖励扩展长程智能体训练环境
🧭 长程智能体训练 · 环境合成与稠密奖励 ★ 深度解读
Adobe Research · University of California, Los Angeles
先构造完整隐藏世界再渲染损坏任务，并用进度势能奖励解决长程智能体 RL 的稀疏奖励，使开源模型逼近前沿。
📌 工作参考价值（4 点）
- 在电商/广告 Agent 的复杂多步骤任务（商品知识图谱构建、营销活动搭建、数据管道修复）中，可采用 latent-world-first 思路：先定义完整正确的目标状态（latent world），再反向渲染损坏输入和 workflow DAG，避免 prompt、任务、验证器各自生成导致的 artifact drift。
- 用 workflow DAG 定义 progress contract，对每个关键中间节点做 prerequisite-gated 评分，作为 RL 稠密奖励；能有效解决 GRPO 组内全失败时梯度为零的问题，在训练多步操作 Agent 时提升 sample efficiency。
- 奖励塑形使用 R(τ)=1[pass]+λΦ(s_T)，λ=0.25，保证通过任务严格优于未通过，同时提供部分进度信号；实现时注意 turn-index normalization 和 return-to-go γ=1，保持 credit assignment，避免后期 turn 的回报被整体均值稀释。
- 合成环境时用 seeded generator 而非 LLM 直接生成，并在生成阶段加入 round-trip 验证和资格门（exploit resistance, progress validity, role independence），可保证可复现、可验证、无奖励黑客。
面向 Agentic 强化学习的 MoE 专家选择结构化
🧭 Agent RL · MoE 专家路由控制 ★ 深度解读
Apple · Purdue University
提出分层路由控制框架，用操作感知互信息与令牌级一致性约束，提升 Agentic RL 成功率与推理吞吐
📌 工作参考价值（3 点）
- MoE 专家选择可以用 agent 轨迹中的 operation 语义（READ/CREATE/UPDATE）做监督，电商搜索/推荐 agent 也可以按意图或工具类别进行专家对齐，提升长程任务成功率和推理速度。
- token 级一致性控制用“相邻 top-k 专家集 Jaccard 距离阈值”选择性回拉，比强制统一更稳定；可搬进多轮 search/agent rollout 中降低专家切换开销、提高吞吐。
- 添加辅助路由 loss 容易引发 RL 训练崩溃，可用 policy entropy 高低门控关闭路由梯度；这个工程 trick 对 MoE 后训练很实用。
ContextPilot：细粒度强化学习驱动的 Agent 主动上下文管理
🧭 Agent 主动上下文管理 · 细粒度 RL ★ 深度解读
Tsinghua University · Tencent Youtu Lab · Shanghai AI Lab
提出 ContextPilot，扩展规划、长期记忆与软卸载工具，并用 context-aware partial rollout 与快照级信用分配训练 Agent，在 32K 窗口下超越更大上下文基线。
📌 工作参考价值（4 点）
- 在电商搜索/推荐多轮 Agent 中，把「上下文管理」显式工具化：提供 planning、结构化长期记忆（实体/事件/关系）和软删除/折叠工具，让模型自主决定何时写入记忆、何时压缩旧搜索结果，而不是依赖固定截断或总结规则。可直接借鉴 ContextPilot 的工具设计，例如将搜索结果中高价值商品信息写入记忆，将低价值长文本 summarize/compress，并用可搜索索引恢复。
- RL 训练时不要均匀探索所有工具调用：用上下文长度变化和生成熵变化给 context editing 动作打分，对高敏感动作（如删除关键历史、写入记忆）做额外分支采样。在推荐 Agent 的 GRPO/RLHF 中，可以对“切换推荐策略/更新用户画像”等关键动作增加 rollout，避免把预算浪费在普通检索步骤。
- 信用分配从 trajectory 级下沉到 snapshot 级：对某个中间上下文状态，取其所有后续分支的奖励均值作为该状态价值，再做组内标准化 advantage。这个 trick 能降低方差，适合长链路推荐/搜索 agent 的中间决策优化，避免用一个最终结果奖励惩罚/强化无关节点的上下文编辑。
- 业务上可复用“更小上下文窗口 + 更强性能”的结论：ContextPilot 以 32K 窗口超过 128K 原模型，token 使用稳定在 8-10K vs baseline 30K，直接降低线上多轮搜索/推荐的 LLM 成本与延迟。